这里是CW未命名色彩。

作者 | Jamie Wareham

翻译 | 小猪

校对 | 前进

制作 | 小王

原文链接：https://www.forbes.com/sites/jamiewareham/2021/03/21/why-artificial-intelligence-will-always-fail-lgbtq-people/?sh=5e4e634a301e

2017年6月24日，墨西哥城中参与男同性恋骄傲游行（Gay Pride Parade）的人。

（Bernardo Montoya / AFP via Getty Images）

人工智能（AI）将改变我们的世界，这是不可避免的。但它以何种方式改变世界依然取决于我们。

对于经常被传统的制度和系统边缘化的LGBTQ人群，我们需要警惕AI如何将我们的存在和声音过滤掉。因为如果我们不这样做，它可能会错误地讲述我们的故事，并随着技术的发展而把我们抛在后面。

事实上，这一领域的专家、人类学家Mary L. Gray认为，AI“总是会让LGBTQ人群失望”。她认为，能否永久性地确保AI不仅真实地反映我们，同时也反映我们所想要的世界，这取决于我们自身。

如果从最基本的层面——即0和1组成的二进制编码——去观察AI，你就会开始理解为什么它可能会忽视酷儿。毕竟，我们从根本上认为，至少在某种程度上，性与性别并非是二元的，而且具有流动性。尽管我们对酷儿社群的观念一直在演变，但这一观点依然是我们作为酷儿的核心体验。而正因为我们自主地探索我们的身份，发展我们的社群，AI才会难以理解我们。

“我们（LGBTQ）不断地重塑我们的社群。这正是我们的闪光点：我们不断推进一切可能性的边界。但对于AI来说，它的优势在于处理静态的事物。”Gray如是说。

Gray探索着数字经济正以何种方式改变劳动、身份和人权，并因此获得了麦克阿瑟基金会（MacArthur Foundation）年度学者的荣誉称号。

为了理解为什么AI（至少在现在）会令LGBTQ人群失望，我们需要后退一步，意识到一点：正如一切事物一样，AI存在于一个系统中，而我们可以改变系统。

Gray解释说，在最基本的层面上，AI通过学习现有的或“标准化”的决策方案来构建决策模型，前者是AI试图模仿的“模板”。

“问题是，我们所定义的仅仅是一个‘模板’。按照AI的设计逻辑，它会排斥一切没有足够典型的案例支撑的非模板化事物，并将其边缘化。”

而酷儿是什么样的呢？

没错，我们中的某些人可以天生就大胆地做自己，愉快地接纳我们的性别和性向，尤其是在环境更包容的情况下。

但对于我们中为数众多的另一些人来说，我们需要经过一个漫长的过程来实现自我认同。在这个过程中，我们会使用不同的身份标签，有时这些标签的含义可能对其他人来说有着不同的含义。我们通过使用这些标签来定义自身最为本真的身份认同，并在世界中寻找容身之所。

但这些都不是可以被精确定义和归类的“模板”。

“做酷儿的方式多种多样，因为酷儿是一种行动，是一种对我们应该怎样做、应该成为怎样的人的假设的拒斥。而为了能拒斥这些规范，我们必须走出一条独一无二的路。”Gray说。

“没错，历史教导我们：我们的身份不是模板化的，这正是它最美丽的地方。”

2018年5月6日，东京彩虹骄傲游行（Tokyo Rainbow Pride）的参与者戴着一副谷歌眼镜。

（Alessandro Di Ciommo / NurPhoto via Getty Images）

除了无法精确定义酷儿外，AI目前有赖于商业化的数据。而据Gray所说，这些数据所处的系统也不能始终以多元流动的方式看待性别和性向。

“数据往往来自于商业活动，而这也是AI获取知识的主要源泉。这并不全是坏事，但是确实会将我们限制在消费者的身份中。”

即使数据能够渗透到LGBTQ社群深处，并从商业视角出发理解我们的社群，它也只会描绘出一幅扭曲的图景，在这之中，大部分人是同性恋者，并且是男性。

“例如，商业数据可能会假设‘LGBTQ都生活在城市’，并盲从城市中‘美好的同志生活’这一刻板印象。在这样的数据中，大部分的标记来自于我们的消费行为，但我们的生活远不止于消费行为。

“AI的假设来源于关于我们的消费习惯、生活方式、外观样貌的有限的事实数据。这正是AI会让我们失望的地方——我们始终是由诸多身份认同组成的复杂群体。”

之所以会出现这种情况，不是因为商业领域的人有根本上的缺陷。事实要比这更加微妙：系统和算法试图将我们套进标准化的模板，试图用一刀切的方式来提升和优化对所有用户的服务质量。我们正是将这一内在逻辑以及我们的个人经验（以及特权）带入了我们的工作中，以及我们所构建的系统中。

“21世纪的商业之所以会迈向自动化，是因为存在这样一种盲目的信念——科技的力量能使我们的生活变得更美好。”

但是，只要你去看看交友网站中所充斥的白人精英，以及其设置栏里关于种族的过滤选项，你就会发现这种为所有人而优化的逻辑会将很多人抛在后面。

现状并非无可救药。Gray关于零工经济和远程工作的研究——这在疫情下的世界中显得尤为适时——表明，系统可以适应不断变化的情况。

新冠大流行为我们提供了一个契机，让我们意识到，我们原以为不会动摇的世界，也可能在一夜间天翻地覆。

因此，Gray认为，我们正处于AI技术爆炸性增长的时期。作为人类，我们有责任确保AI系统对酷儿社群的特点有足够的适应能力。

尤其是，我们要铭记，AI师从于我们，而我们有必要教会AI：人人都是不同的，而不能被粗暴地套进模板里。

“这给我们提供了一个自我反思的契机，反思我们何时未能包容他人。回想一下我们花在交友软件上的时间，问一问：基于你网上的浏览和购物行为，软件对你偏好的约会对象做出了怎样的假设？

“我们应当反思，为什么软件总是给我推荐千篇一律的白人面孔？这反映了我的社交网络怎样的特点？我们可以反思一切决策系统，也可以拒绝其中不合理的决策。

“当AI将我们扁平化为单一的身份时，我们应当意识到这一点，并且拒斥它——我不是只有那一面。”

同时，Gray认为，在实践意义上，这也意味着彻底改变我们对包括AI在内的一切系统的参数进行设置的方式。

但如果你觉得你做不到，幸运的是，据Gray所说，还有一件事是我们所有人都可以做的，而这件事可以推动改变的发生。

“作为消费者、用户以及持续向社交媒体输出数据的一方，我们都可以积极入世，呼吁改变，比如，我们可以为黑人跨性别女性组织（Black Trans Women）发声。

“这是因为，AI可以增进我们对‘模板’的构建过程，以及我们所生活的世界的了解。那么，我们有必要大声疾呼：我想要一个看起来不一样的世界，我想要一个对酷儿友好的世界！”

是的，我们都有能力改变我们身边的世界，我们需要做的，仅仅是时不时点一点按钮，做出一点不一样的决定。

一群性/别多元的朋友们在自拍。

（The Gender Spectrum Collection）